แท็ก

#RTX 3090

1 บทความ

gpu-unlock: kernel module โอเพนซอร์สที่ปลดล็อกอัตรา FP16/BF16 (สะสมผลแบบ FP32) ของการ์ด RTX 30 ให้เท่ารุ่นมืออาชีพ ผู้ใช้รายงาน BF16 GEMM เร็วขึ้น 25–80% และ prefill ของ LLM เร็วขึ้น 14–36% แต่ decode แทบไม่เปลี่ยน
เครื่องมือนักพัฒนา

gpu-unlock: kernel module โอเพนซอร์สที่ปลดล็อกอัตรา FP16/BF16 (สะสมผลแบบ FP32) ของการ์ด RTX 30 ให้เท่ารุ่นมืออาชีพ ผู้ใช้รายงาน BF16 GEMM เร็วขึ้น 25–80% และ prefill ของ LLM เร็วขึ้น 14–36% แต่ decode แทบไม่เปลี่ยน

gpu-unlock 1.0.0 เป็น Linux kernel module (GPL-2.0) ที่สั่งปลดล็อกการ์ด GA102/103/104/106 ก่อนไดรเวอร์ NVIDIA จะ bind ทำให้ FP16/BF16 แบบสะสมผล FP32 ทำงานเต็มอัตราเหมือนการ์ดมืออาชีพ ผลจากผู้ใช้: RTX 3090 Ti BF16 จาก 87.5 เป็น 157.4 TFLOPS และ vLLM prefill บน 3090 เร็วขึ้น 33% แต่ต้องปิด Secure Boot และยังไม่มีการรับรองจาก NVIDIA

· อ่าน 5 นาที